Quando podemos confiar nos resultados obtidos pela IA e quando o aprendizado se torna impossível? Pesquisadores demonstraram que existem alguns problemas que nem mesmo a IA mais poderosa consegue resolver de forma confiável, independentemente da quantidade de dados que recebe. 

Os pesquisadores, da Universidade de Cambridge e da Universidade da Califórnia em Santa Bárbara, desenvolveram sistemas matemáticos "adversários" projetados para enganar qualquer algoritmo de IA. Assim como hackers éticos testam a segurança de uma rede sob condições extremas, esses sistemas adversários foram projetados para mapear exatamente onde e por que a previsão da IA falha. 

Muitos sistemas do mundo real – como os dos oceanos, do cérebro humano ou da robótica – são complexos demais para serem descritos de forma simples apenas com equações. Por isso, pesquisadores frequentemente aprendem como eles se comportam usando aprendizado de máquina. Mas esses métodos de IA nem sempre funcionam bem, apresentando resultados pouco confiáveis ??ou previsões imprecisas. 

Às vezes, porém, fornecer soluções confiáveis é fundamentalmente impossível, mesmo com dados infinitos. Os sistemas adversários desenvolvidos pelos pesquisadores podem ajudar desenvolvedores e usuários de sistemas de IA a saber se estão trabalhando em um problema solucionável ou insolúvel, a construir métodos que funcionem e a evitar o desperdício de tempo, esforço ou recursos de IA quando um problema estiver além dos limites da possibilidade. 

Os resultados, publicados na revista Nature Communications , também podem ajudar a explicar por que chatbots populares de IA, como o ChatGPT ou o Claude, podem ser precisos a curto prazo, mas podem apresentar desvios ou alucinações com o tempo. 

“Estamos explorando os limites do que se pode e do que não se pode fazer com IA”, disse o autor principal, Dr. Matthew Colbrook, do Departamento de Matemática Aplicada e Física Teórica de Cambridge. “É crucial entender quais problemas não podem ser resolvidos com esses métodos, pois, caso contrário, acabamos desperdiçando muito tempo e dinheiro.” 

Colbrook e seus coautores usaram uma abordagem chamada aprendizado do operador de Koopman, que transforma comportamentos não lineares complexos em uma forma linear mais fácil de analisar. 

“O que estávamos fazendo com esses 'adversários' era tentar descobrir os tipos de sistemas que são difíceis ou impossíveis de prever e os tipos de sistemas que poderiam ser adaptados para retornar resultados confiáveis”, disse Colbrook. 

Os pesquisadores identificaram dois motivos principais pelos quais o aprendizado de máquina falha ao analisar sistemas complexos: ou o algoritmo não consegue determinar quando já analisou dados suficientes para retornar um resultado confiável, ou os padrões no sistema podem estar ocultos ou difíceis de distinguir. 

“Em muitas pesquisas de IA, uma suposição comum é que, se simplesmente coletarmos mais dados, o aprendizado acabará funcionando”, disse Colbrook. “Mas descobrimos que isso geralmente está errado. O aprendizado costuma ser em camadas e requer várias etapas na ordem correta para funcionar.”

Quando um sistema é caótico — ou seja, quando pequenas diferenças nas condições iniciais levam a trajetórias drasticamente diferentes, como em uma história interativa — o operador de Koopman frequentemente resulta em uma dispersão contínua  de frequências em vez de modos claros e distintos. A previsão de curto prazo era precisa, mas a previsão de longo prazo tornou-se fundamentalmente não confiável, porque a sensibilidade às condições iniciais se acumula ao longo do tempo.

A mesma instabilidade matemática que prejudica os algoritmos de previsão também pode explicar por que os chatbots de IA fabricam fatos com tanta confiança: pequenas alterações em uma pergunta podem levar o chatbot por um caminho completamente diferente, que parece plausível palavra por palavra, mas perde o contato com a realidade em respostas mais longas.

Os pesquisadores desenvolveram uma maneira de classificar esses problemas com base no número de etapas necessárias para resolvê-los. Quando os dados não estão suficientemente estratificados ou na ordem correta, o melhor que um algoritmo pode fazer – mesmo com dados infinitos – é acertar 50% dos casos, classificando o problema como insolúvel.  

A equipe também criou um novo algoritmo comprovadamente confiável e altamente eficiente, com limites de erro integrados: essencialmente, oferecendo aos pesquisadores de IA uma maneira de saber quando podem confiar na resposta, a uma fração do custo da maioria dos supercomputadores. 

Os pesquisadores testaram sua abordagem em mais de 40 anos de dados sobre o gelo marinho do Ártico. Usando seu algoritmo, eles encontraram padrões ocultos na forma como o gelo está diminuindo e conseguiram superar os principais modelos de IA atuais a uma fração do custo, em um laptop comum. 

“Chegamos a um ponto em que houve muitos exemplos chamativos e histórias de sucesso em IA, mas é fundamental que também questionemos o grau de certeza dos modelos e como podemos saber se eles são realmente precisos”, disse Colbrook. “Caso contrário, estaremos construindo sobre bases muito instáveis.”